#LLM Steering

3天前

「 Black-box LLM Steering, Personalization 」 “我不要你觉得，我要我觉得。” 什么是真正的Personalization，我认为，不是 AI 通过我的数据，训练出 “它觉得” 的 “我”。而应该是我自己要主导决定的 “我觉得” 的 “我”。如果说 persona vectors 和 AxBench 教会我直接修改开源模型的激活层做model steering，那么 ADVISOR MODELS 的出现，可以让我可以对所有模型下手，因为它直接面对闭源模型。 ADVISOR MODELS 通过RL只训练一个小模型，学习为每个输入撰写简短的建议以影响闭源模型, 可以实现用户端自己决定的personalizaiton和特定环境规则。 AxBench，persona vectors，ADVISOR MODELS 几乎提供了一整套实用的 LLM steering 工具包, 在封闭与开放两种场景中都能实现用户端自主的Personalization。极具价值。最后，与各位共勉。我不要你觉得，我不要 openAI 觉得，我不要 Anthropic 觉得，我要 “我” 觉得。因为只有我是我。

#LLM Steering #Personalization #ADVISOR MODELS #用户自主 #模型干预